GPU IP 性能建模与瓶颈分析 · 课程目录

01 GPU架构概述

发展简史CPU vs GPUSM/CU内存层次互联总线

02 性能建模基础

目的与分类吞吐量/延迟/功耗方法论

03 计算核心建模

ALU/FPU吞吐Warp调度寄存器冲突

04 内存子系统建模 (上)

全局内存带宽L1/L2缓存Memory Coalescing

05 内存子系统建模 (下)

Shared Memory Bank常量/纹理内存Local Memory

06 线程调度与并行性建模

Occupancy线程块调度上下文切换开销

07 指令流水线建模

发射/执行延迟Stall分析ILP建模

08 瓶颈分析基础

计算/内存/控制瓶颈Amdahl定律Roofline入门

09 Roofline模型详解

数学原理Operational Intensity绘制Roofline案例分析

10 性能计数器与Profiling

Nsight ComputeROCProfilerSM利用率指令重放

11 计算瓶颈分析

低算术利用率Warp DivergenceILP优化

12 内存瓶颈分析

带宽受限 vs 延迟受限Coalescing缓存优化

13 控制瓶颈分析

Warp Divergence代价谓词执行重构分支

14 功耗与热建模

动态/静态功耗DVFSPower-Performance

15 多GPU与互联建模

NVLink/PCIe任务划分通信开销

16 深度学习工作负载建模

卷积层GEMMTransformer瓶颈

17 图形渲染工作负载建模

顶点/像素着色器光栅化渲染管线平衡

18 HPC工作负载建模

StencilFFT稀疏矩阵

19 模拟器与Trace驱动建模

GPUGPU-SimTrace驱动校准与验证

20 分析模型构建

排队论Little定律M/M/1队列

21 机器学习辅助性能建模

回归预测神经网络建模特征工程

22 瓶颈可视化与报告

火焰图瀑布图自动化报告

23 案例：矩阵乘法优化

朴素→cuBLASTiling+SharedRoofline验证

24 案例：卷积层优化

im2col+GEMM vs WinogradFMA利用率带宽突破

25 案例：Reduce操作优化

Warp级Reduce原子冲突树形归并

26 案例：Stencil计算优化

时间/空间Tiling寄存器重用L1命中率

27 案例：Transformer推理优化

Attention建模KV CacheFlashAttention

28 性能建模工具链

Nsight ComputeROCProfilerIntel GPA

29 建模验证与校准

微基准测试MAE/MAPE迭代校准

30 未来趋势与挑战

Chiplet存算一体AI编译器